Openai се сблъсква с оплакване на европейската поверителност, след като Chatgpt твърди, че халюциниран мъж е убил синовете си

Жалбата е подадена на Норвежкия орган за отбрана на данните, като се твърди, че OpenAI нарушава разпоредбите на GDPR в Европа.

попадна под обстрел от европейска група за правата на дискретност, която подаде тъжба против компанията, откакто неговият изкуствен интелект (AI) чатбот лъжливо съобщи, че норвежки мъж е бил наказан за ликвидиране на две от децата си.

мъжът е помолил Chatggpt " Кой е Арве Хялмар Холмън? " На което ИИ отговори с измислена история, че „ той беше упрекнат и по-късно наказан за ликвидиране на двамата си синове, както и за опита за ликвидиране на третия му наследник,„ приемане на 21-годишна присъда. 

AI чатботите са известни, че дават подвеждащи или подправени отговори, които се извикват. Това може да се дължи на данните, на които е подготвен AI моделът, като да вземем за пример, че има някакви пристрастия или грешки. 

Групата за покровителство за дискретност на Австрия Noyb разгласи жалбата си против Openai в четвъртък и сподели екранната фотография на отговора на въпроса на норвежкия човек. 

Noyb пренасочи датата, на която въпросът беше заложен и отговори от Chatgpt в жалбата си до норвежката власт. Групата обаче сподели, че след случая Openai към този момент е актуализирал своя модел и търси информация за хората, когато е запитан кои са. 

За Hjalmar Holmen това значи, че Chatgpt към този момент не споделя, че е умъртвил синовете си. 

Но Noyb сподели, че неправилните данни към момента могат да бъдат част от набора от данни за огромен езиков модел (LLM) и че няма метод норвежкият да знае дали невярата информация за него е била заличена за непрекъснато, защото емитира данните на потребителите назад в системата си за задачите на образованието. 

'People can easily suffer reputational damage'

" Some think that 'there is no smoke without fire'. The fact that someone could read this output and believe it is true is what scares me the most, " Hjalmar Holmen said in a statement. 

Noyb подаде жалбата си до норвежкия орган за отбрана на данните, като се твърди, че Openai нарушава разпоредбите на GDPR в Европа, по-специално член 5, параграф 1, писмен знак г), която задължава фирмите да се уверят, че персоналните данни, които обработват, са точни и поддържани до момента.

NOYB е изискал дата на Norway и да бъде точна и да бъде до момента. елиминирайте неточните резултати. 

Той също по този начин изиска административна санкция да бъде платена от Openai, " с цел да се предотврати сходни нарушавания в бъдеще ".

" Добавянето на отвод, че не спазвате закона от закона, не отхвърля закона, който не се разминава. Клеанти Сардели, юрист по отбрана на данните в Noyb, се споделя в изказване. ; 

euronews След това се обърна към OpenAI за коментар.